深度神经网络（DNN）众所周知，很容易受到对抗例子的影响（AES）。此外，AE具有对抗性可传递性，这意味着为源模型生成的AE可以以非平凡的概率欺骗另一个黑框模型（目标模型）。在本文中，我们首次研究了包括Convmixer在内的模型之间的对抗性转移性的属性。为了客观地验证可转让性的属性，使用称为AutoAttack的基准攻击方法评估模型的鲁棒性。在图像分类实验中，Convmixer被确认对对抗性转移性较弱。
translated by 谷歌翻译
提出了一种使用秘密钥匙访问控制的新方法，以保护模型免受本文未经授权的访问。我们专注于具有视觉变压器（VIT）的语义分割模型，称为分割变压器（SETR）。大多数现有的访问控制方法都集中在图像分类任务上，或者仅限于CNN。通过使用VIT拥有的贴片嵌入结构，可以用秘密键有效地对经过训练的模型和测试图像进行加密，然后在加密的域中执行语义分割任务。在一个实验中，该方法被确认提供了与使用普通图像无需任何加密的授权用户具有正确键的准确性，并为未经授权的用户提供了极度退化的准确性。
translated by 谷歌翻译
在本文中，我们提出了一种使用秘密钥匙的Convmixer模型的加密方法。已经研究了DNN模型的加密方法，以实现对抗性防御，模型保护和隐私图像分类。但是，与普通模型相比，常规加密方法的使用降低了模型的性能。因此，我们提出了一种加密交流模型的新方法。该方法是基于Convmixer拥有的嵌入体系结构进行的，并且使用该方法加密的模型才能具有与使用秘密键加密的测试图像时使用普通图像训练的模型相同的性能。此外，提出的方法不需要任何特殊准备的数据进行模型培训或网络修改。在实验中，在CIFAR10数据集中的图像分类任务中，根据分类精度和模型保护评估了所提出方法的有效性。
translated by 谷歌翻译
在本文中，我们提出了转换图像和视觉变压器（VIT）模型的组合使用，该模型用秘密键转换。我们首次展示了经过普通图像训练的模型可以直接转换为根据VIT体系结构训练的模型，并且使用测试图像时，转换模型的性能与经过纯图像训练的模型相同用钥匙加密。此外，提出的方案不需要任何特殊准备的数据进行培训模型或网络修改，因此它还使我们可以轻松更新秘密密钥。在实验中，在CIFAR-10数据集中的图像分类任务中，根据性能降解和模型保护性能评估了提出方案的有效性。
translated by 谷歌翻译
在本文中，我们提出了一种具有秘密密钥的块 - 明智图像转换方法，用于支持向量机（SVM）模型。使用转换图像训练的型号为未经授权的用户提供了较差的性能，而无需钥匙，可以为授权用户提供高性能。即使在面部识别实验中使用内核功能，所提出的方法被证明是足够的免于未经授权的访问。
translated by 谷歌翻译
经过深入的研究，最低限度的损失景观的局部形状，尤其是平坦度对于深层模型的概括起重要作用。我们开发了一种称为POF的培训算法：特征提取器的训练后培训，该培训更新了已经训练的深层模型的特征提取器部分，以搜索最小的最小值。特征是两倍：1）特征提取器在高层参数空间中的参数扰动下受到训练，基于表明使更高层参数空间变平的观测值，以及2）扰动范围以数据驱动的方式确定旨在减少由正损失曲率引起的一部分测试损失。我们提供了理论分析，该分析表明所提出的算法隐含地减少了目标Hessian组件以及损失。实验结果表明，POF仅针对CIFAR-10和CIFAR-100数据集的基线方法提高了模型性能，仅用于10个上学后培训，以及用于50个上学后培训的SVHN数据集。源代码可用：\ url {https://github.com/densoitlab/pof-v1
translated by 谷歌翻译
当前的个性化对话中的作品主要有助于代理人表现出一致的个性并推动更有用的回应。但是，我们发现大多数以前模型的生成的响应往往是以自我为中心的，对话中的用户几乎不关心。此外，我们认为类似人类的对话基本上是基于推断另一方角色的信息而构建的。由此激励，我们通过检测隐性用户角色提出了一种新颖的个性化对话生成器。因为很难为每个用户收集大量详细的角色，所以我们试图对用户的潜在角色及其从对话历史记录进行建模，而没有外部知识。使用条件变异推断对感知和推子变量进行了构想。两个潜在变量模拟了人们意识到彼此角色并在对话中产生相应表达的过程。最后，提出了后歧视的正规化以增强训练程序。实证研究表明，与最先进的方法相比，我们的方法更关心用户的角色，并在整个评估中实现了相当大的推动力。
translated by 谷歌翻译
在流行媒体中，人造代理商的意识出现与同时实现人类或超人水平智力的那些相同的代理之间通常存在联系。在这项工作中，我们探讨了意识和智力之间这种看似直观的联系的有效性和潜在应用。我们通过研究与三种当代意识功能理论相关的认知能力：全球工作空间理论（GWT），信息生成理论（IGT）和注意力模式理论（AST）。我们发现，这三种理论都将有意识的功能专门与人类领域将军智力的某些方面联系起来。有了这个见解，我们转向人工智能领域（AI），发现尽管远未证明一般智能，但许多最先进的深度学习方法已经开始纳入三个功能的关键方面理论。确定了这一趋势后，我们以人类心理时间旅行的激励例子来提出方式，其中三种理论中每种理论的见解都可以合并为一个单一的统一和可实施的模型。鉴于三种功能理论中的每一种都可以通过认知能力来实现这一可能，因此，具有精神时间旅行的人造代理不仅具有比当前方法更大的一般智力，而且还与我们当前对意识功能作用的理解更加一致在人类中，这使其成为AI研究的有希望的近期目标。
translated by 谷歌翻译
我们提出了一种使用条件生成对抗网络（CGANS）在机器人关节空间和潜在空间之间转换的新方法，以进行无碰撞路径计划，该方法仅捕获以障碍物图来捕获关节空间的无碰撞区域。操纵机器人臂时，很方便地生成多个合理的轨迹进行进一步选择。此外，出于安全原因，有必要生成轨迹，以避免与机器人本身或周围环境发生碰撞。在提出的方法中，可以通过将开始和目标状态与此生成的潜在空间中的任意线段连接起来和目标状态来产生各种轨迹。我们的方法提供了此无碰撞潜在空间，此后，任何使用任何优化条件的计划者都可以使用任何计划器来生成最合适的路径。我们通过模拟和实际的UR5E 6-DOF机器人臂成功验证了这种方法。我们确认可以根据优化条件的选择生成不同的轨迹。
translated by 谷歌翻译
深度神经网络（DNN）模型和数据集的快速增长大小引起了各种分布策略，如数据，张量模型，管道并行和其混合组合。这些策略中的每一个都提供自己的权衡，并在不同的模型和硬件拓扑上展示最佳性能。选择给定设置的最佳策略集是具有挑战性的，因为搜索空间组合增长，并且在群集上调试和测试昂贵。在这项工作中，我们提出了DISTIR，对于分布式DNN计算，这是针对有效分析而定制的分布式DNN计算的表达中间表示，例如模拟。这使得能够自动识别顶级执行策略，而无需在物理硬件上执行。与事先工作不同，Distir自然可以表达许多分发策略，包括管道并行性，具有任意时间表。我们对MLP培训和GPT-2推理模型的评估演示了DISTIR及其模拟器启用快速网格在跨越1000多种配置的复杂分配空间上搜索，以某些制度的数量级递减优化时间。
translated by 谷歌翻译